DeepSeek 模型兼容性检测

显存计算公式

显存 ≈ 参数量 × 精度位数（Bytes）+ 激活值占用

例：7B FP16 模型 ≈ 7B × 2 Bytes = 14 GB（未含激活值）

实际部署需预留 20% 冗余（如 7B FP16 建议 18GB+ 显存）

内存要求

内存需加载模型权重（约等于显存）及运行时数据，建议为显存的 1.5 倍

量化影响

8-bit 量化显存占用减半，4-bit 再减半，但可能损失 1-3% 精度

Ollama 默认使用 4-bit 量化模型，显存占用约为 FP16 的 1/4